亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例黄石市某某代理教育中心亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马黄石市某某代理教育中心用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:热点)
- o1方法性能无上限!马腾宇等证明:推理token够多,就能解决问题
- 新型疫苗有望终止结核病流行
- 陪诊师变身“号贩子” 行业边界亟待划清
- 吃“软糖”养生,是新消费还是智商税
- 美国专家澄清:美国媒体错误引用了我的话
- 牛奶这样喝,不仅损失营养,还可能会生病
- 重磅转会!贾磊:沈梓捷将加盟北控! views+
- 消息人士称一名哈马斯高级指挥官在以军袭击中身亡 views+
- 回国踢球?一周前莱万特拉斯普拉纳斯女足官宣唐佳丽离队 views+
- 王诗龄又胖了,回国和父亲在北京过暑假,打电话时大跨步前行 views+
- 宋亚轩刘耀文被私生追尾后续!女生信息被扒:开车者15岁家里超有钱 views+
- 《长相思2》:离开清水镇的男人没一个“干净”,小夭一直被牺牲 views+
- 2023年增发国债1.5万个项目全部开工 views+
- 美洲杯决赛:阿根廷冲三连冠!哥伦比亚争23年首冠 梅西战J罗 views+
- 申花俱乐部回应引进费南多:良好队内氛围可对球员产生积极影响 views+
- 三部门紧急调拨1.3万件中央救灾物资支援川渝 views+